Ông sinh năm 1900 trong một gia đình có truyền thống Nho học. Ông là hậu duệ đời thứ 14 của dòng họ Nguyễn Đông Tác. Cụ nội của ông là Tiến sĩ Nguyễn Văn Lý, còn cha của ông là Nguyễn Hữu Cầu, một trong những sáng lập viên của Đông Kinh Nghĩa Thục.

Năm 17 tuổi, ông đỗ vào trường Bưởi (nay là trường Trung hoc phổ thông Chu Văn An). Năm 21 tuổi, ông thi đậu vào trường Cao đẳng Sư phạm.

Sau khi tốt nghiệp, năm 1922, ông được bổ nhiệm về dạy ở trường Thành Chung Nam Định (nay là trường Trung hoc phổ thông Chuyên Lê Hồng Phong), rồi chuyển sang trường Bonnal (Hải Phòng).

Chính ở các nơi này, ông đã trực tiếp giảng dạy cho nhiều nhân vật nổi tiếng. Ngoài việc dạy học tận tình, ông thường tổ chức các cuộc đi thăm các di tích lịch sử, khơi gợi lòng yêu nước. Khi có phong trào Hướng đạo sinh với khuynh hướng tiến bộ do nhà giáo yêu nước Hoàng Đạo Thuý tổ chức, Nguyễn Hữu Tảo đã tổ chức nhiều đoàn cho học sinh trong trường và thanh niên hăng hái khác ở Hải Phòng tham gia.

Ông còn cùng một số người nhiệt huyết như Nguyễn Sơn Hà, Nguyễn Huy Tưởng, Lưu Văn Lợi, Nguyễn Công Mỹ ... thành lập Hội Truyền bá quốc ngữ, một hình thức tổ chức hoạt động do Đảng đề xướng ở Hải Phòng, vận động nhiều học sinh và thanh niên tham gia.

Sau Cách mạng tháng Tám năm 1945, ông được cử giữ chức Giám đốc Nha tiểu học vụ, Giám đốc Nha học chính Bắc Bộ, Tổng Thanh tra học vụ bậc Tiểu học toàn quốc (từ 8/9/1945) rồi Hiệu trưởng Trường Trung học Việt bắc tại Lạng Sơn (1948), Giám đốc Giáo dục khu I Việt Bắc khi kháng chiến chống Pháp bùng nổ, Tổng thư ký Hội đồng Tu thư tTrung ương, ủy viên Hội đồng Cố vấn Học chính của Bộ Quốc gia Giáo dục ... Ông đã tổ chức nhiều lớp đào tạo, bồi dưỡng giáo viên tiểu học cũ chuyển mình theo đường lối, quan điểm của nền giáo dục dân chủ mới. Từ cuối năm 1951, tại trường Đại học Sư phạm Hà Nội, ông đã bắt tay vào dịch, viết giáo trình và xây dựng đội ngũ cán bộ, đặt nền tảng cho việc ra đời của Khoa Tâm lý - Giáo dục học sau này và đóng góp một phần vào việc hình thành và phát triển đội ngũ những người giảng dạy và nghiên cứu về khoa học giáo dục ở Việt Nam.Ông làm Chủ nhiệm bộ môn Tâm lý giáo dục học trường Đại học Sư phạm từ năm 1956 cho tới cuối năm 1964 thì nghỉ hưu.

Ông qua đời tháng 9 năm 1966, thọ 66 tuổi.